• 吴恩泓, 纪庆革
    中国图象图形学报. 2025, 30(12): 3900-3913.

    目的

    多数的行人轨迹预测方法专注于序列化数据的特征,忽略了对行人轨迹的社会语义进行学习。因此,本文着重研究行人轨迹中的社会特征与人类行走特征,提出结合社会约束与轨迹终点的路径逐步估计网络(path stepwise estimation network combining social constraints and trajectory endpoints,PSEN)。

    方法

    根据人在行走中对路径规划的3个特征:1)社会约束,将人群按照社交约束,依据运动学信息进行分类,并根据社交权重得到被预测行人与类内其他行人的社交注意力,从而影响后续的路径估计网络;2)通过模拟行人会先确定终点,有目的性地规划自己行走的路径这一特征,设计一个终点估计网络,通过时空序列对终点进行预测,对完整的路径规划提供参考价值;3)行人不断根据周边环境与终点进行局部路径微调并重新分配注意力的特征,搭建终点与路径微调网络,实现自动根据环境进行微调路径规划的效果。

    结果

    实验在ETH/UCY(Eidgenössische Technische Hochschule Zürich pedestrian and University of Cyprus pedestrain)数据集上与6种基线方法进行比较,在SDD(Stanford drone dataset)数据集上与5种基线方法进行对比。在ETH/UCY整个数据集中,平均位移误差(average displacement error,ADE)和最终位移误差(final displacement error,FDE)平均降低5.1%和7.5%,在SDD数据集中,ADE和FDE平均降低1%和2%。针对行人较为密集的场景,如ZARA1、ZARA2和UNIV数据集的预测效果均提升10%以上。在ETH/UCY数据集上进行消融实验,证明PSEN各模块均能够提高行人轨迹预测任务的效果,ADE和FDE分别平均降低19%和31%。

    结论

    本文提出的结合社会约束与轨迹终点的路径逐步估计网络(PSEN),综合了真实世界中行人场景的3个特点,在ETH/UCY和SDD数据集上取得了更优异效果。

  • 谢君琳, 张锐斐, 李冠彬
    中国图象图形学报. 2025, 30(12): 3760-3781.

    大语言模型在自然语言处理领域取得显著进展,展现出卓越的语言理解和生成能力。然而,尽管这些模型在文本处理方面表现出色,但在应对复杂多模态任务时,尤其在视频问答领域局限性逐渐显现。视频作为一种动态的视觉模态,具有显著的时序依赖性和跨模态信息融合的复杂性,对模型的时序信息处理能力和计算效率提出更高的要求。本文系统回顾基于大语言模型的视频问答模型的研究进展,详细分析非实时视频问答模型与实时视频问答模型的技术特点、优势及其在不同应用场景中的表现。同时,探讨了现有研究中常用的数据集及其评测标准,并总结了当前技术面临的挑战与瓶颈。在此基础上,对未来视频问答模型的发展方向进行前瞻性展望,旨在推动多模态人工智能的进一步发展与应用。

  • 郝雯, 左占彬, 卢翰森, 梁玮, 金海燕, 石争浩
    中国图象图形学报. 2025, 30(12): 3914-3926.

    目的

    针对已有的特征融合策略难以充分挖掘语义—实例特征之间相关性问题,提出一种基于增强注意力的语义实例联合分割网络。

    方法

    首先,通过构建基于注意力机制的语义特征提取模块,有效捕获点间的局部上下文信息。然后,利用编码—解码模块获得点云的初始语义特征和初始实例特征,其中编码—解码模块包括基于注意力池化的PointNet++集合抽象层、PointConv的编码层、解码层以及PointNet++的特征传播层。接着,设计一个增强注意力模块,利用双重注意力机制,自适应地学习中心特征与邻近特征的相似性,动态确定注意力权重,并将得到的双重注意力权重进行求和,与初始语义特征相乘,获得增强后的语义特征。最后,将增强注意力模块内嵌到联合分割模块的语义分支中,将语义特征与实例特征有效融合,提高语义—实例联合分割的精度。

    结果

    相较对比算法中最优值,本文方法在S3DIS(stanford large-scale 3D indoor semantics dataset)数据集中语义分割平均交并比与实例分割平均加权覆盖率指标分别提升3.5%和1.2%。在ScanNet数据集中,语义分割平均交并比与实例分割中平均加权覆盖率指标分别提升3.2%和2.8%。

    结论

    本文提出的网络模型能够有效融合提取的语义特征与实例特征,其语义分割与实例分割的准确性明显优于现有的联合分割方法。

  • 陈松乐, 黄茹玥, 黄思轩, 陈怡, 李骞
    中国图象图形学报. 2025, 30(12): 3927-3940.

    目的

    现有的基于多视图的三维模型分类方法通常基于预设的多个视点渲染三维模型,然后将所有渲染的视图送入神经网络模型实现分类。显然由于冗余和无效视图的存在,每个视图对于分类目标的作用并不相同。选择对分类目标贡献大的视图,不仅有利于提高基于多视图的三维模型分类的性能,而且能够提供表征三维模型的代表性视图。

    方法

    提出一种Transformer注意力引导的三维模型最优视图选择与分类方法。在从正十二面体20个视角对待预测的三维模型渲染后,首先采用卷积神经网络从多个视图提取特征信息,获得多视图局部特征Token序列,并对其进行位置编码,以保留其空间位置信息。随后,将可学习的全局分类Token与多视图特征Token序列合并,输入至Transformer编码器进行全局视图特征融合,获得初始全局分类特征。接下来,最优视图选择模块基于全局视图特征融合过程中的注意力得分矩阵计算各视图对初始全局分类Token的贡献,并选择得分高的视图作为最优视图。最后,将最优视图特征Token序列与初始全局分类Token拼接后输入到Transformer编码器进行最优视图融合,并获得最终的全局分类Token,将其输入分类预测模块获得最终分类概率,并输出选择的最优视图。本文在训练过程中采用了随机丢弃视图和对比学习策略,以进一步提高模型的泛化性能。

    结果

    在ModelNet40基准数据集上,所提方法总体识别精度和平均识别精度分别为97.61%和96.36%,在达到当前先进分类水平的同时,基于Transformer注意力得分矩阵选择出的最优视图更具有表征性。

    结论

    本文方法利用Transformer实现不同视图特征之间的融合,通过自注意力、残差连接以及多层堆叠机制,Transformer能够有效学习数据的复杂特征,并捕捉不同视图之间的全局上下文关系。同时,其注意力得分矩阵为最优视图选择提供了依据,在实现高效分类的同时,能够选择出最具有表征性的视图。

  • 宋霄罡, 谭裕平, 郭富强, 鲁晓锋, 黑新宏
    中国图象图形学报. 2025, 30(12): 3838-3854.

    目的

    RGB-D显著目标检测通过整合RGB图像和深度图像的互补信息,可以提高应对复杂和具有挑战性场景的显著目标检测(salient object detection,SOD)能力,取得了比RGB显著性检测模型更好的性能,受到高度关注。然而,现有RGB-D 检测模型面临如何高效利用输入的多模态信息进行融合以及如何提高显著目标边缘检测精度等问题。为此,提出一种跨模态特征融合与边缘细节增强的RGB-D显著目标检测方法。

    方法

    通过跨模态注意力融合增强模块(cross-modal attention fusion enhancement module,CAFEM)对不同模态特征进行注意力整合,使RGB图像和深度图像的互补信息充分融合,使模型充分利用多模态特征,从而提高模型的性能。但是两种模态的输入容易出现背景信息混淆、噪声增多、深度图质量低和目标轮廓提取困难的情况。为应对上述问题,提出一种卷积神经网络(convolutional neural network,CNN)低层特征引导的边缘特征提取模块(boundary feature extraction module,BFEM),通过通道注意力对低层特征携带的噪声进行过滤,然后使用低层细节特征引导跨模态融合特征进行聚焦解码以得到更加准确的显著图像。

    结果

    在4个RGB-D显著目标检测数据集进行实验,与16种代表性方法进行定量和定性实验对比。在平均绝对误差(mean absolute error, MAE)指标上,本文方法相较于排名第2的方法,在4个数据集上分别提升6.9%、10.5%、9.7%和2.4%。结果表明,本文方法在各场景均有优异表现。

    结论

    提出一种用于RGB-D显著目标检测的跨模态特征融合与细节信息增强网络(cross-modal feature fusion and detail-enhanced network,CFADNet),通过跨模态注意力融合增强模块(CAFEM),较好地实现了RGB特征与深度特征的融合。此外,构建了边缘特征提取模块(BFEM)提取低层细节特征,最终较为准确地定位显著物体并增强了边缘细节的清晰度。

  • 张珂, 梁龙萍, 郭玉荣, 王子念
    中国图象图形学报. 2025, 30(12): 3804-3823.

    目的

    人脸图像年龄估计在数字营销和人机交互等领域具有重要应用价值。然而,实现精确人脸年龄估计面临缺乏大规模有标签数据集的挑战。半监督学习方法能利用无标签数据集缓解此问题,但现有方法易引入错误伪标签,对年龄估计性能产生负面影响。因此,提出一种面向人脸年龄估计的开集半监督多任务学习方法。

    方法

    首先,为了增强模型对局部和全局特征的处理能力,提出SwinLEDF模型,该模型以Swin Transformer作为主干网络,用于提取全局特征,并通过融合LEFF(local enhanced feed-forward)模块和DFN(dynamic filter networks)模块,进一步提升模型对局部特征的提取能力。其次,为了有效利用有标签数据和无标签数据中的有效信息,设计开集半监督多任务学习框架。在此框架中,模型通过标准闭集分类器和多类二元分类器的协同工作有效排除异常数据的干扰,采用自适应阈值方法确定性别、种族和年龄的伪标签,并引入负学习策略,以提高对无标签数据的利用率。

    结果

    在MORPH数据集上,仅使用有标签数据集时,模型的平均绝对误差为1.908;同时使用有标签数据集和无标签数据集时,MAE(mean absolute error)降至1.885。在UTKface数据集上,仅使用有标签数据集时,MAE为4.343;而结合有标签数据集和无标签数据集时,MAE降至4.246。与现有的人脸年龄估计方法相比,本文方法提高年龄估计的性能,能够有效利用无标签数据集进一步优化年龄估计性能。

    结论

    本文提出一种面向人脸年龄估计的开集半监督多任务学习方法,能够从有标签数据集和无标签数据集中有效提取人脸图像的性别、种族和年龄特征,从而提升人脸年龄估计的精度。这为实现更加精准的人脸年龄估计提供了新的思路和解决方案。

  • 宋维涛, 廖聆宇, 张浩天, 李琳, 俞天秀, 赵永生, 韩霈泽, 刘思然, 陈坤龙, 曲亮, 刘晓平, 刘越, 王涌天
    中国图象图形学报. 2025, 30(12): 3707-3739.

    文物承载灿烂文明、传承历史文化、维系民族精神,生动诠释着中华民族文化自信的底气与底蕴。随着人工智能技术赋能各行各业,融入大众生活的方方面面,整个文物行业也在人工智能技术的推动下进行着方法和理念的变革,影响着文物防护、保护、研究、管理与传播的方式,如何将人工智能应用于文物行业已成为研究人员十分关注的工作。本文面向文物领域防、保、研、管、用五大方向,从文物行业应用需求、传统研究方法、人工智能技术发展和人工智能应用于文物研究等几个方面进行论述,并探讨和展望了人工智能技术下文物行业应用发展与未来。

  • 高桃峰, 何银鑫, 马学良, 卢自来, 彭世勇, 刘洋
    中国图象图形学报. 2025, 30(12): 3740-3759.

    基于卫星视频的单目标跟踪受到广泛关注,在军事和民用领域发挥着重要作用,可用于城市尺度下的灾害救援、治安防范以及突发事件监控等,但受目标尺寸小、相似目标干扰、运动模糊和背景复杂等因素影响,面临诸多挑战。为便于更多学者对该领域进行探索,本文对卫星视频单目标跟踪研究现状进行梳理和分析。首先,阐述该领域的挑战与优势。视频卫星视野范围大,车辆等目标在卫星视频中仅占几个或十几个像素,特征和纹理稀少,此外卫星视频中目标数量较多,目标与干扰物间的可区分性差,相似性较高,存在目标的快速移动或卫星平台的抖动导致目标模糊的情况,以及目标存在于复杂背景中,当运动目标本身不明显、背景信息比目标信息更加突出时,会导致跟踪失败。但相对于地面或低空视频,基于卫星视频的目标跟踪又有一定的优势,比如:目标的外部条件,如摄像机视角等相对稳定、卫星视频中的目标多为刚性目标,在跟踪过程中很少发生严重变形、目标的运动状态简单明了,运动轨迹多为直线或平滑的曲线。其次,总结典型的跟踪方法。包括基于生成式、基于相关滤波和基于深度学习的方法,介绍解决特征稀少、遮挡、相似目标干扰等问题的相关研究。然后,归纳现有卫星视频单目标跟踪数据集和常用性能评价指标。卫星视频目标跟踪数据集主要有XDU-BDSTU、VISO(video satellite objects)、SatSOT 、OOTB(the oriented object tracking benchmark)。其中VISO数据集规模最大,包括训练集和测试集,XDU-BDSTU数据集的影像幅宽大,适用于长时跟踪,OOTB数据集的目标标注为旋转框,更加贴合目标。性能评价指标主要有精确率、成功率和帧率。此外,在自制的测试集上对典型单目标跟踪方法进行性能评测与分析。实验结果表明,运动估计、时序信息以及背景信息的利用对卫星视频目标跟踪任务较为重要。最后,从统一跟踪结果评价指标、更大规模的高质量卫星视频目标跟踪数据集,以及更适合于卫星视频单目标跟踪的模型、长时跟踪几个方面展望了卫星视频单目标跟踪算法的未来发展趋势。

  • 郭斯栩, 耿慧拯, 粟栗, 何申, 张鑫月
    中国图象图形学报. 2025, 30(12): 3824-3837.

    目的

    基于视觉的轨道缺陷检测方法大多存在高参数、计算复杂、检测速度慢以及精度低等缺陷,为了解决上述问题,提出一种使用RGB和深度图像进行轨道缺陷检测的轻量级金字塔交叉注意网络(lightweight pyramid cross-attention network for orbital image defect,LPCANet)。

    方法

    LPCANet模型利用深度学习、RGB-D与显著性目标检测等技术,设计一种轻量级金字塔模块,能够从深度图像中提取多尺度特征图,而骨干模块从RGB图像中捕获金字塔特征细节;然后,将交叉注意力模块(cross-attention mechanism,CAM)应用于两种类型的特征映射;其次,利用空间特征提取子(spatial feature extractor,SFE)提高缺陷检测性能;最后,应用像素洗牌(pixel shuffle)操作恢复原始图像的大小。

    结果

    在NEU-RSDDS-AUG、RSDD-TYPE1和RSDD-TYPE2 3种公开无服务RGB-D轨道数据集进行实验。结果表明,提出方法在NEU-RSDDS-AUG数据集的运行参数为9.90 M,计算量为2.50 G,模型大小为37.95 MB,运行速度为162.60帧/s,相比现有18种轨道缺陷检测方法,更为轻量化;与当前性能最优的CSEPNet相比,S-度量、交并比、最大F-度量、平均精度和平均绝对误差指标分别提高1.48%、0.86%、0.14%、0.03% 和1.77%;在消融实验中,像素洗牌方法表现出明显优势,更适合LPCANet模型。深入分析各种骨干网络性能,实验表明,LPCANet模型不仅适用现有各种骨干网络,而且检测结果更加优秀。在非轨道数据集DAGM2007、MT和Kolektor-SDD2上进行实验,LPCANet模型在mAP、MAE与IOU指标均有提高,具备一定的泛用性。

    结论

    提出的LPCANet模型综合了传统模型和深度学习模型的优点,在轨道缺陷图像检测领域具备良好的实际应用价值。

  • 刘伟杰, 马龙, 魏广顺, 范业莹, 周元峰
    中国图象图形学报. 2025, 30(12): 3941-3954.

    目的

    近年来,数字化口腔正畸备受关注,其中牙弓线设计是计算牙齿目标位的关键。现有方法多采用Beta函数拟合牙弓线,但由于自由度的限制使其难以拟合出代表理想牙弓形态的牙弓线。为此,本文提出通过累加弦长参数化并基于Hermite插值函数的牙弓线拟合方法,以提高牙弓线拟合的精度和灵活性。

    方法

    首先,使用牙齿分割技术得到每颗牙齿的数据,并通过牙齿特征点检测方法得到对应牙齿的特征点。其次,选取指定牙齿的特征点,采用累加弦长参数化方法确定最终插值点。最后,通过构建待定系数矩阵,确定方程组,拟合出以分段函数表示的牙弓线。此外,本文基于特征点与拟合牙弓线之间的最短距离,提出两种评估数学函数拟合牙弓线能力的指标。

    结果

    本文方法克服了Beta函数原有的局限性,具有较强的可控性。医生可以通过调整控制点,拟合出符合正畸需求的理想牙弓线。各项评价指标均显示,本文方法优于对比的常用方法。此外,将本文方法拟合的牙弓线应用于现有的牙齿正畸自动排列方法中,验证结果显示正畸效果显著提升。

    结论

    本文方法拟合牙弓线的精度以及灵活性均优于对比方法,能够有效解决理想牙弓线拟合难的问题,为后续牙齿正畸治疗提供了帮助。

全部文章
  • 期刊名称. 年卷期,起止页 doi:
    文章摘要
全部文章
  • 期刊名称. 年卷期,起止页
    文章摘要